DualG-MRAG: Decoupling Macro-Reasoning and Micro-Matching for Multimodal Retrieval-Augmented Generation
DualG-MRAG:解耦宏观推理与微观匹配的多模态检索增强生成
🧭 多模态RAG · 宏观-微观图解耦
SKLCCSE, School of Computer Science and Engineering, Beihang University
双层次图框架解耦宏观拓扑推理与微观证据匹配,抑制多模态RAG中的检索噪声
📌 工作参考价值(4 点)
- 宏观-微观图解耦架构:可迁移到电商多模态知识图谱构建,宏观层建模商品、品类间拓扑关系,微观层存储细粒度属性(如颜色、材质),分开处理避免全局推理时被局部噪声干扰,同时保留精确匹配能力。
- 查询驱动的GNN消息传递检索:作为意图感知的多模态召回模块,以用户查询为起点在图上游走传播相关性,替代单纯向量相似度匹配,更适合需要多跳证据链的复杂推荐场景(如“适合户外旅行的轻便双肩包且防水”)。
- 动态规划解码显式推理路径:不再给LLM灌输零散文档块,而是提取“图片A→属性B→场景C”的结构化路径,可提升生成式推荐或问答的可解释性,便于业务调试与用户信任。
- 细粒度视觉特征的层级使用:微观图保留局部视觉证据,宏观图仅用粗粒度表示,避免图规模爆炸;在商品搜索中可对详情图做类似分层,平衡效率与精度。